Când cenzura oamenilor cade în mâna inteligenței artificiale. Există câteva avantaje, dar și multe dezavantaje
Moderarea conținutului este una dintre cele mai dificile probleme de pe internet din ultimii zeci de ani.
Acesta este un subiect greu de abordat pentru absolut oricine, având în vedere predispoziției oamenilor pentru subiectivitate.
Creatorul ChatGPT, OpenAI crede că poate da o mână de ajutor și a pus la încercare abilitățile de moderare a conținutului GPT-4.
Acesta folosește modelul multimodal „pentru a construi un sistem de moderare a conținutului care este scalabil, consistent și personalizabil”.
OpenAI crede că are soluția, dar realitatea este mai complicată de atât
Compania a scris într-o postare pe blog că GPT-4 nu numai că poate ajuta la luarea deciziilor cu privire la moderare a conținutului, dar poate ajuta inclusiv la dezvoltarea politicilor și la repetarea rapidă a modificărilor de politică, „reducând ciclul de la luni la ore”.
Se susține că modelul poate analiza diferitele reglementări și nuanțe ale politicilor de conținut și se poate adapta instantaneu la orice actualizări. Acest lucru, susține OpenAI, are ca rezultat o etichetare mai consistentă a conținutului.
„Credem că acest lucru oferă o viziune mai pozitivă asupra viitorului platformelor digitale, în care AI poate ajuta la moderarea traficului online în conformitate cu politica specifică platformei și poate ușura povara mentală a unui număr mare de moderatori umani”, au scris Lilian Weng, Vik Goel și Andrea Vallone, de la OpenAI.
OpenAI declară că instrumentele de moderare GPT-4 pot ajuta companiile să facă munca a șase luni în aproximativ o zi.
În 2020, Meta a fost de acord să plătească mai mult de 11.000 de moderatori cu cel puțin 1.000 de dolari fiecare pentru rezolvarea problemelor de sănătate mintală care ar fi putut să se întâmple din revizuirii materialelor care au fost postate pe Facebook.
Utilizarea inteligenței artificiale poate ridica o parte din povara aceasta și ar putea fi foarte benefică. Meta folosește AI pentru a ajuta moderatorii de câțiva ani.
Cu toate acestea, OpenAI spune că, până acum, moderatorii umani au primit ajutor de la „modele mai mici de învățare automată specifice. Procesul este, în mod inerent, lent și poate duce la stres mental asupra moderatorilor umani”.
Totuși, trebuie să ne amintim că Meta nu pare să facă o treabă extraordinară în ceea ce privește moderarea conținutului, astfel că nici GPT-4 nu este privit cu foarte multă încredere.